Arbeiten mit großen Datenmengen
Learnings
Verbindung mit der API herstellen
Arbeiten mit großen Datenmengen
Anwendung von API Pagination für effizienteres Daten-Handling
VORBEREITUNGEN
In diesem Beispiel wollen wir die Grundlagen der deeeper.API zum Arbeiten mit großen Datenmengen erkunden. Dieses Tutorial nutzt Python 3.9. In unserem öffentlich verfügbaren Gitlab-Repository finden sich auch Beispiele in Bash. Um ein Grundverständnis der API zu bekommen, empfehlen wir das Tutorial Getting Started.
Zur schnelleren Verarbeitung von Anfragen nutzt die API Paginierung (im englischen Sprachraum als Paging oder Pagination bekannt). Die Ergebnisse sind dementsprechend beim Überschreiten einer gewissen Anzahl von Objekten in "Seiten" aufgetrennt, die einzeln abgefragt werden können. In diesem Beispiel soll kurz und bündig erklärt werden wie einzelne Seiten aus der API abgefragt werden können. Eine tiefgreifende, technische Dokumentation kann der API Dokumentation entnommen werden.
Die Antwort auf beliebige Anfragen wird prinzipiell im JSON-Format ausgegeben und sieht aus wie im folgenden Codebeispiel:
ANWENDUNG VON PAGINATION
Im obigen Beispiel zeigt sich das Paging der API. Ist die Anzahl der gefundenen Features zu groß, teilt die API die Antworten in mehrere Teile auf, sogenannte Pages. Den Parametern "numberMatched" und "numberReturned" in der oben gezeigten Antwort können wir entnehmen, dass in der Anfrage nicht alle der Anfrage entsprechenden Objekte zurückgegeben wurden.
In diesem Falle wurden 123 Objekte gefunden, die die Abfrage erfüllen, jedoch zunächst nur 2 Objekte zurück gegeben. Um alle zu erhalten, müssen wir iterativ mit verschiedenem Offset abfragen (uns also alle Features vom n-ten Objekt an zurückgeben lassen). Dazu wählen wir einen "startIndex" wie im folgenden Codebeispiel beschrieben, welcher sukzessive erhöht wird.
Außerdem fragen wir von der API alle Ackerflächen in der Bounding-Box ab, welche eine Größe von über 50.000 m² haben. Diese können, wie schon im Eingangsbeispiel gezeigt, mittels Folium in Form einer Webkarte dargestellt werden.
DARSTELLUNG IN EINER WEBKARTE
Das folgende Snippet stellt dann ähnlich wie in den anderen Tutorials die Möglichkeit dar, die Ergebnisse in einer interaktiven Webkarte zu veranschaulichen. Das Ergebnis befindet sich darunter.