Building private-by-design iot systems

Igor Zavalyshyn

Key information

Authors:

Igor Zavalyshyn (Igor Zavalyshyn)

Supervisors:

Nuno Miguel Carvalho dos Santos (Nuno Miguel Carvalho dos Santos); Ramin Sadre

Published in

July 30, 2021

Abstract

Com a rápida adoção de tecnologias de Internet das Coisas (IoT) acompanhado por uma crescente quantidade e variedade de dados confidenciais recolhidos por vários sistemas de IoT, verifica-se uma clara insuficiência nos mecanismos tipicamente utilizados para garantir a privacidade e segurança individuais dos utilizadores. De facto, inúmeras violações de segurança e roubo de dados confidenciais tornaram-se um lugar-comum. Isto deve-se principalmente ao facto de que os mecanismos de segurança tradicionais apenas restringem o acesso às fontes de dados de IoT, mas não ao que pode ser feito com esses dados após o acesso ter sido concedido. Nesta tese, nós repensamos a arquitectura de sistemas IoT procurando dar aos utilizadores o controlo total dos dados gerados pelos sensores dos seus dispositivos e fornecer mecanismos para que os utilizadores especifiquem as suas preferências de privacidade e segurança em relação à recolha, processamento e partilha de dados dos sensores. Para atingir esses objetivos, propomos novos sistemas que abarcam vários domínios: local, nuvem e móvel. Para o domínio local, apresentamos o HomePad, um dispositivo inteligente com mecanismos de protecção de privacidade para ambiente doméstico que permite aos utilizadores determinar como várias aplicações de IoT acedem e processam dados confidenciais e bloquear as aplicações que violam as preferências de privacidade especificadas pelos utilizadores. Para este fim, o HomePad apresenta dois conceitoschave: (1) um novo modelo de programação de fluxo de dados que torna explícito a propagação de dados sensíveis dentro das aplicações (2) uma estrutura aplicacional baseada em elementos que permite modelar as aplicações domésticas inteligentes sob a forma de um gráfico direcionado e verificar automaticamente os seus fluxos de dados em relação às políticas de privacidade definidas pelo utilizador. Para o domínio da nuvem, propomos o PatrIoT, uma plataforma IoT privacy-by-design que estende o modelo de programação de fluxo de dados do HomePad para a nuvem. Este sistema tira partido de Intel SGX para evitar o acesso não autorizado aos dados de sensores por provedores de nuvem não confiáveis e oferece aos utilizadores uma abstração de segurança intuitiva chamada flowwall, que permite especificar políticas fáceis de usar para controlar fluxos de dados sensíveis geradas pelas aplicações. Finalmente, para o domínio móvel, propomos o Flowverine, um sistema para a construção de aplicações móveis com reconhecimento de privacidade que manipulam dados IoT confidenciais em plataformas Android não modificadas. O Flowverine adapta o modelo de programação de fluxo de dados a uma programação Android, a qual é muito mais complexa, e usa programação orientada a aspectos (AOP) para análise dinâmica de propagação de informação. Complementarmente a esses três sistemas, esta tese também propõe técnicas adicionais para aumentar a segurança, tolerância a falhas e confiabilidade de sistemas IoT com base num modelo de programação baseada em N versões e no reforço da segurança do software. With the rapid adoption of Internet of Things (IoT) technologies and a growing amount and variety of sensitive data collected by various IoT systems, the mechanisms commonly used to ensure individual privacy and security are still insufficient. Numerous security breaches and sensitive data leaks have become a commonplace. This is mainly due to the fact that traditional security mechanisms can only restrict access to a given IoT data source, but not what can be done with that data after the access has been granted. In this thesis, we reimagine the concept of IoT systems design which aims to give users full control of sensor data generated by their devices, and to provide mechanisms for users to specify and enforce their privacy and security preferences regarding sensor data collection, processing and sharing. To achieve these goals, we propose several novel systems that collectively span across several domains: local, cloud and mobile. For the local domain, we present HomePad, a privacy-aware smart hub for home environment which allows users to determine how various IoT applications, apps, access and process sensitive data collected by smart devices, and to block those apps that violate the privacy preferences specified by the users. To this end, HomePad introduces two key design concepts: (1) a novel dataflow programming model which makes sensitive data flows within apps explicit, and (2) an element-based app structure which allows to model any smart home app as a directed graph and automatically verify its data flows against user-defined privacy policies using Prolog predicates. For the cloud domain, we propose PatrIoT, a private-by-design IoT platform that extends HomePad's dataflow programming model to the cloud. It leverages Intel SGX to prevent unauthorized access to the sensor data by untrusted cloud providers, and offers homeowners an intuitive security abstraction named flowwall which allows them to specify easy-to-use policies for controlling sensitive sensor data flows within the apps they install. Finally, for the mobile domain, we propose Flowverine, a system for building privacy-aware mobile apps handling sensitive IoT data on unmodified Android platforms. Flowverine adapts the dataflow programming model to a much more complex Android programming and runtime environment, and uses aspect-oriented programming (AOP) for dynamic taint analysis. Complementary to these three systems, this thesis also proposes additional techniques for enhancing the security, fault tolerance and reliability of IoT systems based on N-version programming and software hardening.